Loeillet era el hijo mayor de Jean-Baptiste-François Loeillet (1653-1685) y su segunda esposa, Barbe Buys y hermano de Jacques Loeillet, también compositor. Era oriundo de Gante, actual Bélgica, que en aquella época pertenecía a los Países Bajos españoles de los Habsburgo.

Puesto que el padre de Loeillet murió en 1685, es seguro asumir que el compositor creció en la casa de su tío paterno, Pieter Loeillet (1652 - 1735), padre de Jean-Baptiste Loeillet de Gante. Fue intérprete de oboe, clavicordio y flauta traversa: en el caso de este último instrumento, fue uno de los principales responsables de su difusión en el Reino Unido, teniendo en cuenta que en esa época era mucho más popular la flauta dulce, y la traversa era relativamente novedosa.

En 1705, después de estudiar en Gante y París, se mudó a Londres, donde comenzó a ser conocido como «John», aunque su apellido fue a menudo trascripto como «Lully» o «Lullie». Debe destacarse que no tenía relación alguna con el compositor francés Jean-Baptiste Lully, que vivió entre 1632 y 1687. Sus obras fueron publicadas bajo el nombre de John Loeillet.

En 1707, era ya conocido como intérprete en la Drury Lane orquesta. Flautista excepcional y oboísta, Loeillet también tocó instrumentos de viento de madera en el Queen's Theatre en Haymarket.

Alrededor de 1710, habiéndose vuelto una figura prominente en la vida musical de Londres, empezó una serie de conciertos semanales en su casa en Covent Garden. En uno de estos conciertos, en 1714, Loeillet presentó a los ingleses los Concerti grossi Op. 6 de Arcangelo Corelli. Parece que Loeillet, a pesar del hecho de que sus obras para clavicordio no son sus composiciones más inspiradas, llegó a ser un maestro de clavicordio de moda en Londres. De hecho, sus “Nueve suites”, aunque agradables y bien conformadas composiciones escritas para intérpretes aficionados, palidecen comparadas con sus otros trabajos. Por ejemplo, mientras sus sonatas para flauta dulce y oboe parecen bastante tradicionales, con la parte de bajo subordinada a los instrumentos agudos, las voces altas son finamente equilibradas, rindiendo una textura agradable.

Más interesantes son sus sonatas trío para dos flautas, en las que las melodías agudas  parecen más intrigantes, pero que permanecen, no obstante, dentro de un predecible contexto formal tradicional. Interesantemente, sus composiciones más logradas son las sonatas trío para dos violines, construidas en el estilo de Vivaldi y Corelli. Habiendo absorbido el lenguaje técnico y temático de la escuela de violín italiana, la escritura de Loeillet reconcilia la tradición y la inventiva artística. Estos trabajos pueden recordar a algunos de los de estilo contrapuntístico más sofisticado del primo de Loeillet, Jean-Baptiste Loeillet de Gante. Eclipsado, quizás, por su primo más cosmopolita, Loeillet fue no obstante favorablemente apreciado en Londres, donde pasó el resto de su vida. De hecho, su música también era conocida en las colonias americanas.